Keitel sinh tại Helmscherode (nay là Bad Gandersheim, Brunswick) thuộc Đế quốc Đức, là con địa chủ trung lưu Carl Keitel và bà Apollonia Vissering. Sau khi học xong phổ thông, Keitel gia nhập quân đội năm 1901, làm sĩ quan trừ bị Fahnenjunker trung đoàn 6 Pháo binh Lower-Saxon. Năm 1909 ông cưới vợ là bà Lisa Fontaine, con của một gia đình địa chủ giàu có và có sáu người con. Con cả là Karl-Heinz Keitel cũng theo bước cha mình gia nhập quân đội Đức trong lực lượng Waffen-SS.

Trong Thế chiến I, Keitel theo trung đoàn pháo binh sang Mặt trận phía Tây. Trong trận đánh tại Flanders vào tháng 9 năm 1914 ông bị trúng miểng trọng thương tay phải. Khi hồi phục, Keitel được về phục vụ văn phòng tham mưu từ đầu năm 1915. Sau cuộc chiến ông tiếp tục làm việc văn phòng quân đội Đức (lúc bấy giờ gọi là Reichswehr), tham gia thiết lập các đội dân quân Freikorps tại biên giới Ba Lan. Sau đó Keitel giảng dạy tại trường Kỵ binh Hanover.

Cuối năm 1924 Keitel được thuyên chuyển về bộ quốc phòng (Reichswehrministerium), trực thuộc phòng quân đội Truppenamt - trên thực tế đây chính là bộ tổng tham mưu quân lực Đức ngầm thành lập trong khi Đức đang bị hiệp định Versailles cấm tổ chức quân đội. Keitel sau đó được thăng chức lãnh đạo văn phòng, và tiếp tục giữ chức này khi Đảng Quốc xã Đức giành thế lực chính quyền năm 1933. Năm 1935, Keitel được thăng chức trung tướng và cử làm chỉ huy lực lượng vũ trang Đức Quốc xã, kiểm soát cả ba thành phần quân đội, lục quân, hải quân và không quân.